Yamashita nhấn mạnh rằng người Nhật nên chấm dứt cuộc xung đột với Trung Quốc, đồng thời giữ mối quan hệ hòa bình với Hoa Kỳ và Vương quốc Anh, nhưng tiếng nói của ông bị phớt lờ và sau cùng ông được bổ nhiệm vào một vị trí quan trọng trong Đạo quân Quan Đông. Từ năm 1938 đến 1940, ông được bổ nhiệm làm chỉ huy Sư đoàn 4 đơn vị đóng ở miền bắc Trung Quốc và làm nhiệm vụ đàn áp các cuộc nổi dậy của người Trung Quốc chống lại quân Nhật chiếm đóng.

Vào tháng 12 năm 1940, Yamashita được bổ nhiệm trong một phi vụ quân sự bí mật đến nước Đức và Ý, nơi ông gặp gỡ Adolf Hitler và Benito Mussolini.